Lớp Tambor có nhiều đặc tính được cải tiến so với tàu ngầm lớp Sargo dẫn trước. Hình dạng thân tàu được làm suôn thẳng hơn để đạt tốc độ nhanh hơn, và thùng lặn khẩn cấp được trang bị lại giúp con tàu lặn xuống nhanh hơn. Hệ thống động lực toàn diesel-điện được áp dụng, và giải quyết được sự cố chập mạch trước đây. Nó trang bị động cơ Fairbanks-Morse Kiểu 38D8-⅛ 9-xy lanh chuyển động đối xứng, dẫn động máy phát điện, và động cơ điện kết nối với trục chân vịt qua hộp số giảm tốc.[10]

Lần đầu tiên đối với tàu ngầm Hoa Kỳ, lớp Tambor có đến mười ống phóng ngư lôi gồm sáu trước mũi và bốn phía đuôi. Hiệu quả tác chiến được cải thiện nhờ bố trí lại người vận hành sonar và máy tính dữ liệu ngư lôi vào một tháp chỉ huy lớn hơn, cho phép trao đổi trực tiếp với hạm trưởng, cùng một kính tiềm vọng kiểu mới có đầu nhỏ hơn giúp khó bị phát hiện.[11][12] Thoạt tiên được chỉ được trang bị pháo 3 in (76 mm)/50 caliber, boong tàu được gia cố sẵn đủ để lắp đặt pháo cỡ 5 in (130 mm)/51 caliber khi tình huống tác chiến đòi hỏi; nên trong đợt đại tu vào cuối năm 1942, Grayling được nâng cấp lên cỡ pháo 5-inch.[13]

Grayling được đặt lườn tại Xưởng hải quân Portsmouth ở Kittery, Maine vào ngày 15 tháng 12, 1939. Nó được hạ thủy vào ngày 4 tháng 9, 1940, được đỡ đầu bởi bà Marion Barnes Bryant Leary, phu nhân Chuẩn đô đốc Herbert F. Leary, và được cho nhập biên chế cùng Hải quân Hoa Kỳ vào ngày 1 tháng 3, 1941 dưới quyền chỉ huy của Hạm trưởng, Thiếu tá Hải quân Eliot Olsen.[1][3][14]